Mikhael sinh vào năm 770 ở Amorium, tại Phrygia, trong một gia đình nông dân-binh sĩ chuyên nghiệp đã nhận đất của chính phủ để đổi lấy nghĩa vụ quân sự của họ. Gia đình ông thuộc phái Do thái-Kitô giáo nhánh Athinganoi mà các thành viên đều là người Cappadocia đã tiếp nhận nghi lễ của người Do Thái. Athinganoi có rất nhiều tín đồ ở Anatolia cùng với người Hy Lạp và người Armenia giúp hình thành nên cột trụ của quân đội Đông La Mã thời kỳ đó.

Mikhael lần đầu tiên nổi lên trong vai trò là phụ tá thân cận (spatharios) của tướng Bardanes Tourkos, bên cạnh những đối thủ trong tương lai là Leon gốc Armenia và Thomas gốc Slav. Ông kết hôn với con gái của Bardanes là Thekla, trong khi Leon cưới một người con gái khác. Mikhael và Leon đã bỏ rơi Bardanes ngay sau khi ông này nổi dậy chống lại Hoàng đế Nikephoros I vào năm 803, và họ đã được đền đáp bằng các chức vụ tư lệnh quân sự cao hơn: Mikhael được phong là Bá tước Quân doanh (Komēs tēs Kortēs) của Hoàng đế. Mikhael chỉ là công cụ giúp cho Leon lật đổ Mikhael I Rangabe vào năm 813, sau những thất bại quân sự liên tiếp của Rangabe chống lại người Bulgaria. Về sau ông còn được bổ nhiệm làm chỉ huy đội tinh binh tagma của Excubitors dưới thời Leon V.

Ông trở nên bất mãn với Leon V kể từ lúc Hoàng đế ly dị em dâu của Mikhael. Vào đêm Giáng Sinh năm 820, Leon V đã khép ông vào tội mưu phản, hạ lệnh bắt giam ông và kết án tử hình nhưng hoãn thi hành cho đến sau Giáng Sinh. Mikhael liền chuyển lời tới đồng bọn đe dọa tiết lộ danh tính của họ, nhân đó đám thuộc hạ đã đến phóng thích ông và sát hại Leon V đang lúc hoàng đế cử hành lễ Giáng Sinh tại giáo đường nhà thờ St. Stephen.